Suharto dilahirkan pada 8 Jun 1921 semasa era Hindia Timur Belanda, di sebuah rumah berdinding buluh di dusun Kemusuk, sebuah bahagian dari kampung Godean yang lebih besar. Perkampungan ini terletak 15 kilometer (9 batu) dari barat Yogyakarta, Jawa.[8][11] Beliau merupakan anak tunggal hasil perkahwinan kedua ibu bapanya, kedua-duanya merupakan orang Jawa. Bapanya, Kertosudiro, mempunyai dua anak dari perkawinan sebelumnya, dan seorang pejabat pengairan desa. Ibunya, Sukirah, seorang wanita tempatan, mempunyai pertalian jauh dengan Sultan Hamengkubuwono V melalui gundik baginda yang pertama.[12]

Ibunya mengalami gangguan jiwa lima minggu selepas melahirkan Suharto, lalu beliau diletakkan dalam penjagaan ibu saudaranya, Kromodirjo.[13] Kertosudiro dan Sukirah ketika Suharto masih kecil lagi dan kemudian berkahwin lagi. Pada usia tiga tahun, Suharto dikembalikan kepada ibunya, yang telah berkahwin dengan seorang petani tempatan yang membantu Suharto di sawah.[13] Pada tahun 1929, bapa Suharto membawanya untuk tinggal bersama adik perempuannya, yang telah berkahwin dengan seorang penyelia pertanian, Prawirowihardjo, di kota Wuryantoro di kawasan pertanian yang kurang dibangunkan di Wonogiri. Selama dua tahun berikutnya, beliau dibawa pulang ke ibunya di Kemusuk oleh bapa tirinya dan kemudian kembali ke Wuryantoro oleh bapanya.[14]

Prawirowihardjo membesarkan Suharto seperti anaknya sendiri, dan Suharto menganggapnya seperti ayahnya sendiri dalam kehidupannya di Wuryantoro. Pada tahun 1931, beliau berpindah ke bandar Wonogiri untuk menghadiri sekolah rendah, yang tinggal lebih awal dengan anak lelaki Prawirohardjo, Sulardi, dan kemudian dengan saudara sebelah ayahnya, Hardjowijono. Semasa tinggal bersama Hardjowijono, Soeharto diperkenalkan kepada Darjatmo, seorang dukun seni mistik Jawa. Pengalamannya ini meninggalkan kesan yang begitu mendalam, malah Suharto mengelilingi dirinya dengan bahasa simbolik yang kuat sewaktu memegang jawatannya sebagai presiden.[8] Kesulitan dalam membayar yuran pendidikannya di Wonogiri mengakibatkannya berpindah kembali kepada bapanya di Kemusuk, di mana dia terus belajar di sekolah menengah Muhammadiyah di kota Yogyakarta hingga tahun 1939.[14][15]

Seperti kebanyakan orang Jawa, Suharto mempunyai satu nama sahaja.[16] Dalam konteks agama pada tahun-tahun kebelakangan ini, beliau lazimnya dipanggil "Haji" atau "el-Haj Mohammed Suharto" tetapi nama-nama ini bukan sebahagian dari nama formalnya atau umumnya digunakan. Ejaan "Suharto" mencerminkan ejaan bahasa Indonesia moden, walaupun pendekatan umum di Indonesia adalah bergantung kepada ejaan yang disukai oleh orang yang bersangkutan. Pada masa kelahirannya, transkripsi piawai adalah "Soeharto" dan beliau lebih suka ejaan asal. Akhbar bahasa Inggeris antarabangsa umumnya menggunakan ejaan 'Suharto' sementara kerajaan manakala media Indonesia menggunakan 'Soeharto'.[17]

Pembesaran Suharto berbeza dengan tokoh-tokoh nasionalis Indonesia yang terkemuka seperti Sukarno kerana beliau dipercayai mempunyai sedikit minat terhadap anti-kolonialisme, atau kebimbangan politik di luar kawasan sekitarnya. Tidak seperti Sukarno dan lingkungannya, Suharto tidak mempunyai hubungan dengan penjajah Eropah. Malah, beliau tidak mempelajari bercakap bahasa Belanda atau bahasa-bahasa lain di Eropah pada masa mudanya sehingga beliau dikerahkan ke dalam tentera Belanda pada tahun 1940.[15]